前面快速帶了一些RAG的相關實作,我們該怎麼把他變成可以給user使用的方式呢?有點概念的話就知道我們會使用API的方式去呼叫,那為了更快速的可以達成所以我們選擇了FastAPI,以下大概是整理了幾點:
以下為文件的快速實作:
安裝所需SDK及撰寫python code:
pip install fastapi
from fastapi import FastAPI
app = FastAPI()
@app.get("/")
def read_root():
return {"Hello": "World"}
@app.get("/items/{item_id}")
def read_item(item_id: int, q: str = None):
return {"item_id": item_id, "q": q}
例子創建了兩個endpoint:一個根路徑("/")和一個接受參數的路徑("/items/{item_id}")。
最後在bash運行:
uvicorn main:app --reload
瀏覽器開啟 http://127.0.0.1:8000/docs 就可以看到swagger了~
最後我會再接下來快速生成一個fastapi架構上github大家也可以隨拿隨用!
參考資料:https://fastapi.tiangolo.com/